Програмист: Когато ИИ ни надмине по интелект, трябва да харесва хората, иначе - ще ни унищожи
Изкуственият разсъдък (ИИ) действа в две направления. Умният става по-умен, а глупавият по-глупав. Най-голямата заплаха е пълзящото оглупяване, за което ИИ ни дава основа. Мисленето от ден на ден го прехвърляме върху някаква форма на ИИ. Опасността е в един миг ние напълно да престанем да мислим и да разчитаме ИИ да го прави. Това стартира с търсачките, съобщи доктор Артур Кордон в предаването на Българска национална телевизия " В кадър ".
" Първият ми конфликт с ИИ беше 1993 година, преди 30 години. Това беше действително приложение в рафинерия за оптимизация на техните съоръжения. ИИ е решение, което укрепва естествения разсъдък ", добави той и съобщи, че действителна регулация на ИИ е невъзможна.
„ ИИ беше една фантазия, която към този момент стартира да се сбъдва. Да има умни машини е една дълголетна фантазия на човечеството – помощници, които да реализират избрани задания като различаване на облици, взимане на решения. По-модерното течение, е по-близко до статистическите модели и доста модели като невронни мрежи, надълбоко образование станаха доста известни в последно време. Един от проблемите на тези модели е, че от време на време бъркат с висока степен на увереност, т.е. без да слагат под подозрение това решение “, разяснява проф. доктор Пламен Ангелов -професор по „ Интелигентни системи “ в Университета на Ланкастър.
Именно това са така наречен „ машинни халюцинации “ - дума на годината на Кеймбриджкия речник.
" В софтуерния бранш съм близо 30 години. Ние постоянно излизаме с съвременни, лъскави думички, които се опитваме да разкажем на хората, да ги развълнуваме, да създадем маркетингов звук и да вдигнем пушилка, с цел да изкараме пари. Този път не е по този начин ", сподели програмистът Ивайло Иванов.
Опитваме се да образоваме машините по този начин, както децата си: с доста повторения, образци, с неточности и коригиране на грешките. Много са аналогични методите. Разликата е, че машината може да обработи голямо количество данни за доста малко време, машината не не помни. На нея може да копираме дотук запомненото на нова машина и тя към този момент да е научена. Това е разликата сред изкуствения и естествения организъм ", изясни той.
По думите му Chat GPT има историческа роля. " Това е моментът, в който човечеството разбра, че ИИ, по който в действителност се работи от средата на предишния век, към този момент е пристигнал ", означи програмистът и в бъдеще предвижда " общ изкуствен интелект ", който вероятно може да прояви схващане.
" Това е моментът, от който доста се опасяваме. Не знаем по какъв начин ще бъде ръководено това схващане. Плашещата догадка е, че когато ИИ порасне достатъно, че да доближи и надмине човешкия разсъдък, той ще го надмине на порядъци доста бързо: за седмици и месеци. Когато ИИ надмине човешкия разсъдък и ние не сме най-интелектуално развитото създание на планетата, е доста значимо най-интелигентните да ни харесват, тъй като в случай че не ни харесват: нас индивидите, ще намерят метод да ни унищожат ", уточни Иванов.
„ Идва казусът кои етични и метафизичен правила да бъдат заложени в ИИ. Моите, твоите, на тази вяра, на другата ли, на този или другия политически блок? Това е метафизичен въпрос, който се взема решение към този момент няколко хиляди години. Сега към този момент имат краен период “, сподели още програмистът.
„ Хората, които сътвориха Chat GPT, си нямат хабер от обществените науки. Сега, обаче, тяхното произведение удря най-много обществената сфера. Хората от обществената сфера си нямат хабер от изкуствен интелект. За мен решението е единствено тези две класи да свидлив ръце и фундаментално да изследват процесите “, уточни Артур Кордон.
Последвайте канала на
" Първият ми конфликт с ИИ беше 1993 година, преди 30 години. Това беше действително приложение в рафинерия за оптимизация на техните съоръжения. ИИ е решение, което укрепва естествения разсъдък ", добави той и съобщи, че действителна регулация на ИИ е невъзможна.
„ ИИ беше една фантазия, която към този момент стартира да се сбъдва. Да има умни машини е една дълголетна фантазия на човечеството – помощници, които да реализират избрани задания като различаване на облици, взимане на решения. По-модерното течение, е по-близко до статистическите модели и доста модели като невронни мрежи, надълбоко образование станаха доста известни в последно време. Един от проблемите на тези модели е, че от време на време бъркат с висока степен на увереност, т.е. без да слагат под подозрение това решение “, разяснява проф. доктор Пламен Ангелов -професор по „ Интелигентни системи “ в Университета на Ланкастър.
Именно това са така наречен „ машинни халюцинации “ - дума на годината на Кеймбриджкия речник.
" В софтуерния бранш съм близо 30 години. Ние постоянно излизаме с съвременни, лъскави думички, които се опитваме да разкажем на хората, да ги развълнуваме, да създадем маркетингов звук и да вдигнем пушилка, с цел да изкараме пари. Този път не е по този начин ", сподели програмистът Ивайло Иванов.
Опитваме се да образоваме машините по този начин, както децата си: с доста повторения, образци, с неточности и коригиране на грешките. Много са аналогични методите. Разликата е, че машината може да обработи голямо количество данни за доста малко време, машината не не помни. На нея може да копираме дотук запомненото на нова машина и тя към този момент да е научена. Това е разликата сред изкуствения и естествения организъм ", изясни той.
По думите му Chat GPT има историческа роля. " Това е моментът, в който човечеството разбра, че ИИ, по който в действителност се работи от средата на предишния век, към този момент е пристигнал ", означи програмистът и в бъдеще предвижда " общ изкуствен интелект ", който вероятно може да прояви схващане.
" Това е моментът, от който доста се опасяваме. Не знаем по какъв начин ще бъде ръководено това схващане. Плашещата догадка е, че когато ИИ порасне достатъно, че да доближи и надмине човешкия разсъдък, той ще го надмине на порядъци доста бързо: за седмици и месеци. Когато ИИ надмине човешкия разсъдък и ние не сме най-интелектуално развитото създание на планетата, е доста значимо най-интелигентните да ни харесват, тъй като в случай че не ни харесват: нас индивидите, ще намерят метод да ни унищожат ", уточни Иванов.
„ Идва казусът кои етични и метафизичен правила да бъдат заложени в ИИ. Моите, твоите, на тази вяра, на другата ли, на този или другия политически блок? Това е метафизичен въпрос, който се взема решение към този момент няколко хиляди години. Сега към този момент имат краен период “, сподели още програмистът.
„ Хората, които сътвориха Chat GPT, си нямат хабер от обществените науки. Сега, обаче, тяхното произведение удря най-много обществената сфера. Хората от обществената сфера си нямат хабер от изкуствен интелект. За мен решението е единствено тези две класи да свидлив ръце и фундаментално да изследват процесите “, уточни Артур Кордон.
Последвайте канала на
Източник: novini.bg
КОМЕНТАРИ